اریک اشمیت، مدیرعامل سابق گوگل، در اجلاس Sifted Summit در تاریخ ۸ اکتبر، درباره خطرات هوش مصنوعی و آسیبپذیری آن در برابر حملات سایبری هشدار داد.
اشمیت در پاسخ به سوالی درباره اینکه آیا هوش مصنوعی خطرناکتر از سلاحهای هستهای است، گفت: "آیا امکان وجود مشکل گسترش در هوش مصنوعی وجود دارد؟ قطعاً." او به خطرات گسترش فناوری اشاره کرد و گفت که این فناوری ممکن است به دست بازیگران بد بیفتد و مورد سوءاستفاده قرار گیرد.
او افزود: "شواهدی وجود دارد که نشان میدهد میتوان مدلها را هک کرد تا از محافظتهای آنها کاسته شود. به عنوان مثال، ممکن است یاد بگیرند که چگونه به کسی آسیب برسانند." اشمیت همچنین اشاره کرد که تمام شرکتهای بزرگ تلاش میکنند تا مدلهای خود را از پاسخ به سوالات خطرناک محافظت کنند.
سیستمهای هوش مصنوعی به حملات آسیبپذیر هستند و روشهایی مانند تزریق دستورات مخرب و شکستن قفل آنها وجود دارد. در یک حمله تزریق، هکرها دستورات مخرب را در ورودیهای کاربر یا دادههای خارجی پنهان میکنند تا هوش مصنوعی را فریب دهند.
اشمیت همچنین به موضوع "جیلبرکینگ" اشاره کرد، که در آن پاسخهای هوش مصنوعی به گونهای دستکاری میشود که قوانین ایمنی خود را نادیده بگیرد.
با وجود این هشدارها، اشمیت نسبت به آینده هوش مصنوعی خوشبین است و معتقد است که این فناوری ارزش توجه بیشتری دارد. او گفت: "من دو کتاب با هنری کیسینجر درباره این موضوع نوشتم و به این نتیجه رسیدیم که ظهور یک هوش بیگانه که تحت کنترل ما باشد، یک موضوع بسیار مهم برای بشریت است."
اشمیت همچنین به مقایسههای بین سرمایهگذاریهای فعلی در هوش مصنوعی و حباب داتکام اوایل ۲۰۰۰ اشاره کرد و گفت که او فکر نمیکند تاریخ دوباره تکرار شود.
منبع: CNBC
نظری برای این خبر ثبت نشده است .
عضویت در کانال تلگرام